Bút tích Nguyễn Thần Hiến trên vách Đền thờ họ Mạc.

Mặc dù bận rộn vì việc nước, Nguyễn Thần Hiến vẫn hay làm thơ, nhưng đã thất lạc nhiều. Nay còn lại một ít, nhờ đăng trên báo Nông cổ mín đàm và đề trên tường vách Mạc Công Miếu và Đình thờ thần Thành Hoàng xã Mỹ Đức, Hà Tiên (nay thuộc khu phố 1, p. Đông Hồ, thị xã Hà Tiên).

Mùa đông năm Canh Tý (1900), việc trùng tu Mạc Công Miếu hoàn thành, Nguyễn Thần Hiến làm hai bài thơ chữ Hán tán dương công đức Mạc Thiên Tứ chép trên vách đền, nay hãy còn. Trích một (dịch thơ):

Vì quý thân mình của mẹ cha,Nước nhà đành bỏ, vượt phương xa.Dựng vua Chân Lạp hao người ngựa,Mở đất Hà Tiên rộng nước nhà.Thơ rượu một thời, chơi thắng cảnh,Xóm làng ngàn dặm, kết tài hoa.Xót thầm có chí, không thành đạt,Câu cá đầu sông phí tuổi già.

Đình thờ thần Thành Hoàng xã Mỹ Đức, mà ông là người có công lớn trong việc kiến tạo, cũng có 4 bài thơ chữ Hán của ông, trích một (dịch nghĩa):

Hàn than thu lạo đồ(Cơn lũ mùa thu bên bờ lạnh)Bên bờ dăm ba mái chòi bên xóm ấp,Lũ mùa thu, dân nghèo sống buổi sớm chiều.Rặng bần càng thấp, sông thêm thoáng rộng,Cầu khe làm dấu lối đi, nước chảy phăng phăng.Nước mở hàng lau, sông xuôi về biển,Đưa các tôm vào tận nhà.Chận nước phải tùy theo núi, người đã trót lời nguyền,Bày tỏ cùng ai giữa vùng nước bạc khi đêm về? [4]